最近科技新闻里出现了一个让普通人既震撼又困惑的说法——“百万GPU集群”。OpenAI、微软、谷歌、Meta这些巨头，都在公开或者私下地规划百万级别的GPU算力集群。这个数字大到了普通人根本没有概念的程度。一百万块GPU是什么概念？把全世界所有游戏玩家手里的显卡加在一起可能都没这么多。
我以前也觉得这就是个夸张的数字游戏，用来吓唬竞争对手的。直到我认真去翻了翻供应链数据、算了算电费和建设成本，才发现这件事比我想象的——还要疯狂。
我们不用专业术语，先打几个比方。NVIDIA在2024年全年出货的数据中心GPU大约是376万块。如果某家公司单独建了一个百万GPU集群，那就意味着它一家就消耗了当年全球数据中心GPU出货量的四分之一以上。这个采购量可以让NVIDIA专门为它开一条新的封装产线，甚至影响全球其他所有AI公司的显卡供应。
从成本看，单块H100的售价在2.5万到3万美元之间。一百万块按2.5万美元算，单是芯片采购就要250亿美元。这还没算服务器机箱、CPU、内存、存储、网络设备、光模块、机架、数据中心土建、冷却系统、电力接入……业界估算一个百万H100集群的总建设成本在400亿到500亿美元之间。作为参考，国际空间站的造价也就在1000亿美元量级。一个计算机集群的成本接近半个国际空间站。
从空间看，一个标准的42U机柜可以放8台4U的GPU服务器，每台服务器装8块GPU，一个机柜就是64块GPU。一百万块GPU需要15625个机柜。一个大型数据中心的机柜密度大约是每1000平方米500个机柜。15625个机柜需要约31250平方米的空间，相当于4个标准足球场的面积，这还没算走廊、配电间和冷却设备。
从电力看，一块H100的峰值功耗是700瓦，一百万块就是700兆瓦。加上服务器其他组件和冷却系统的能耗，整个集群的功耗大约在1到1.2吉瓦（GW）之间。一个核电机组的发电容量大约1吉瓦。也就是说，这个计算机集群需要专门给它建一座核电站才能喂饱。如果靠市电，相当于一个中型城市所有居民和工业用电的总和。
“百万GPU计算机”的意思，就是用一个核电站的发电量，去驱动一个足球场那么大的设备集群，专门用来训练AI模型。
这个问题我问过很多做AI基础设施的朋友。最直接的答案是：用来训练下一代基础大模型，也就是GPT-6或者更后面的那几代。
训练大模型有一个经验规律：模型参数量每增加一个量级，需要的算力大约增加100倍。从GPT-3（1750亿参数）到GPT-4（据传1.8万亿参数），算力需求增加了数十倍。GPT-5和GPT-6的参数量可能突破10万亿甚至更高，需要的算力指数级膨胀。百万GPU集群，就是为这种“暴力美学”准备的。
百万GPU可以做什么？用250亿美元的硬件，花90到180天，训练出一个参数量在10万亿级别的模型。这个模型的智能水平可能超过人类专家在几乎所有领域的平均表现。这听起来像科幻，但OpenAI和Google DeepMind的内部路线图显示，这就是他们正在走的路径。
另一个重要用途是“合成数据生成”和“模型自我对弈”。新一代模型不再完全依赖人类标注的数据，而是由AI自己生成训练数据、自己跟自己对抗学习。这个过程需要海量的推理算力——不是训练一次模型需要多少算力，而是“在训练过程中，无时无刻不在用同等规模的算力生成数据”。百万GPU集群，有一半可能在跑推理，一半在跑训练。
数字虽然震撼，但真正让人头皮发麻的是背后的工程难题。
网络互联：一百万块GPU要互相通信，而且速度要足够快。H100搭配NVLink和InfiniBand，单卡通信带宽达到900 GB/s。一百万张卡的全互联，意味着交换机、光模块、光纤的数量是天文数字。而且长距离通信带来的延迟和丢包，会让有效算力大打折扣。业界通常说“线性加速比很难做到，尤其是跨机柜、跨机房的通信”。
故障率：一万块GPU同时跑一个训练任务，平均每几小时就有一块卡出故障。百万块GPU意味着故障率是百倍级别。训练一个模型要跑几个月，过程中随时有卡在掉线。如何做到“热替换”——在不中断训练的情况下换掉故障卡，是系统工程师的噩梦。
散热：1.2吉瓦的功耗，最终全部变成热量。传统的风冷已经完全没用了。百万GPU集群必须用液冷，甚至是浸没式液冷。英伟达的GB200 NVL72就采用了液冷方案。整个数据中心的冷却系统本身就是一个巨大的水利工程。
要注意的是，“百万GPU”不等于“百万块H100”。
大部分公司规划的是“等效百万GPU”——把H100、H200、B100、甚至是AMD的MI300X混在一起算。不同芯片的算力、显存、带宽差异很大，所谓的“百万”更多是一种公关口径。
另外，很多“百万GPU”说的是峰值算力，不是实际有效算力。实际训练中，由于通信瓶颈、故障停机、散热限制，一个百万GPU集群的有效算力可能只有峰值的60%到70%。即便如此，那也是一个远超当前任何超级计算机的数字。
还有一个情况：只有极少数公司真的在建百万GPU集群。据公开信息，微软、OpenAI、谷歌、Meta、亚马逊这几家是第一梯队。国内的公司受限于芯片出口管制和电力成本，短期内不太可能达到这个量级。更多的“百万GPU”是战略规划，实际落地可能需要三到五年。
百万GPU计算机的意义不在于“炫富”，而在于它揭示了AI竞争的底层逻辑已经变了。
过去两年，大家比的是谁先做出好模型。未来两三年，比的是谁有足够的钱和电，把模型规模推到下一个量级。算力正在从技术问题，变成资源问题——你有多少芯片、多少电力、多少冷却能力，决定了你的AI有多聪明。
这对中小企业来说是个令人不安的趋势，但也是一个清晰的分水岭。基础模型的研发确实是大玩家的游戏，但基于这些模型的应用层创新，需要的可能只是一台能跑推理的AI迷你主机而已。如果你不需要训练模型，只需要调用模型来做业务推理，一个搭载了NPU的迷你主机就能跑7B到13B的本地模型，足够覆盖大多数场景。
